Моделирование нарушений безопасности в системах машинного обучения
Аннотация:
Предмет исследования. Широкое распространение машинного обучения, включая объекты критической информационной инфраструктуры, влечет за собой риски угроз безопасности при отсутствии надежных средств защиты. В работе рассмотрены процессы в системах машинного обучения по аналогии с информационными системами, которые подвержены вредоносным воздействиям. Представлены результаты моделирования событий, приводящих к нарушению безопасности в системах машинного обучения объектов критической информационной инфраструктуры. Метод. При моделировании применена технология создания функциональных моделей SADT (Structured Analysis and Design Technique) и методология IDEF0 (Integration definition for function modeling) как инструмент перехода от вербально-функционального описания исследуемого процесса к описанию в терминах математического представления. Для исследования сценариев перехода систем машинного обучения в опасное состояние и численной оценки вероятности нарушения безопасности выполнено математическое моделирование угроз с использованием логико-вероятностного метода. Основные результаты. Получена наглядная функциональная модель нарушения безопасности системы в виде контекстной диаграммы системы и двух уровней декомпозиции. Определена функция опасности системы и выведен арифметический полином вероятностной функции. Практическая значимость. Представленные модели позволят разработать методы и алгоритмы защиты систем машинного обучения от вредоносных воздействий и применять их в ходе оценки уровня защищенности.
Ключевые слова:
Постоянный URL
Статьи в номере
- О возможности применения моностатической схемы построения наземного телескопа при наблюдении космических объектов
- Проблема применения процедуры DREM в задаче идентификации интервально заданных параметров
- Особенности морфологии микро- и нанопористых пленок меди и серебра для фотокаталитического применения, синтезированных с использованием реакции замещения
- Биоинспирированные метаэвристические алгоритмы построения расписаний в облаке: систематический обзор
- Оценка применимости методов асинхронного программирования при решении проблемы согласованности данных в микросервисной среде
- Факторная модель обнаружения и распознавания контура и основных элементов человеческого лица
- Исследование устойчивости информационнотелекоммуникационных сетей в условиях стохастической перколяции узлов
- Алгоритм поиска всех путей в графе с заданными контекстно-свободными ограничениями с использованием матриц с множествами промежуточных вершин
- Система поддержки принятия решений при проведении технологического процесса протонной лучевой терапии
- Определение опасных состояний водителя транспортного средства на основе информации устройств носимой электроники
- Исполняющая машина автоматных программ
- Байесовские функции потерь для моделирования гомоскедастичной алеаторной неопределенности в задаче детекции пыльцы на изображениях
- Алгоритм выявления синтезированного голоса на основе кепстральных коэффициентов и сверточной нейронной сети
- Методика оценки рисков информационных систем на основе анализа поведения пользователей и инцидентов информационной безопасности
- Идентификация аккаунтов пользователей при помощи сравнения изображений: подход на основе pHash
- Исследование движения человека в системах компьютерного зрения на основе скелетной модели
- Решение задач сверх- и гиперзвуковой газовой динамики с использованием модели высокотемпературного воздуха
- Математическое моделирование оптимальной онкотерапии злокачественных опухолей
- Численное исследование разлета смеси газа и частиц с осевой симметрией
- Исследование модулятора двулучепреломления на основе ниобата лития